Năm 316, quân Hán Triệu tộc Hung Nô tiến đánh Trường An, bắt Tấn Mẫn Đế. Miền bắc Trung Quốc bị các tộc Ngũ Hồ xâm chiếm. Một số châu quận vẫn thế thủ chống lại quân Ngũ Hồ nhưng không có người cầm trịch.

Trước tình hình đó, các họ lớn ở đó gồm có Chu, Cam, Lữ, Cố, ủng hộ Tư Mã Duệ tự lập làm vua, ngày Tân Mão tháng 3 ÂL năm 407, ông xưng Tấn vương và đặt niên hiệu Kiến Vũ, lập Tông miếu, kiến xã tắc, cầm quyền chỉ huy vùng Giang Nam vì khi đó Mẫn Đế đang bị cầm tù ở Bình Dương.

Năm 318, Mẫn Đế bị vua Hán là Lưu Thông giết. Tin đó truyền đến Kiến Khang vào tháng 3 ÂL, ngày Canh Ngọ cùng tháng, Tư Mã Duệ bèn lên ngôi Hoàng đế, tức là Nguyên Đế của triều Đông Tấn (317-420).

Cán cân quyền lực ở miền Nam

Có khoảng 100 gia đình quý tộc lớn ở phía bắc chạy xuống phía nam. Sĩ tộc Giang Nam bằng lòng liên hợp với sĩ tộc miền Bắc di dời xuống để chống lại thế lực Ngũ Hồ đang muốn xâm lược phía nam. Địa vị và quyền lợi của địa chủ miền Bắc được nhà Đông Tấn đảm bảo nên các địa chủ miền Bắc nhanh chóng củng cố được thế lực và tham gia bộ máy chính quyền mới, ủng hộ nhà Đông Tấn.

Ở Giang Nam, giới địa chủ đã có đất đai và chính quyền rồi nên cũng không có ý muốn quay trở về miền Bắc.

Tể tướng Vương Đạo chủ trương đường lối bảo vệ quyền lực Hoàng đế, cân bằng các sĩ tộc hai vùng Bắc Nam, nhượng bộ và buông lỏng với thế gia đại tộc. Quan điểm của Vương Đạo là "cứ bình tĩnh, cầu sao cho hòa hoãn tạm thời rồi mọi việc đâu lại vào đấy".

Các sĩ tộc miền Nam bất mãn trước việc sĩ tộc phương Bắc đang có ý định nắm chính quyền và có thái độ tiêu cực đối với việc Bắc phạt. Nguyên Đế cũng theo tư tưởng đó của Vượng Đạo. Chính vì vậy, những người có chủ trương Bắc phạt mạnh mẽ, điển hình là Tổ Địch, không được hậu thuẫn mạnh mẽ từ phía chính quyền trung ương. Tổ Địch phải tự lực mộ quân đánh lên Bắc và sau một thời gian, do những yếu tổ cản trở đã phẫn chí qua đời.